MODE-RAG: Manifold Outlier Diagnosis and Energy-based Retrieval-Augmented Generation Evaluation
MODE-RAG：流形异常诊断与能量检索增强生成评估的多智能体系统
🧭 多模态RAG幻觉缓解 · 基于能量的多智体评估
School of Computer Science & Tech, Huazhong University of Science and Technology · School of AI and Automation, Huazhong University of Science and Technology
提出多智能体系统MODE-RAG，利用变分自由能和注意力动态门控，结合MCTS与logit惩罚来缓解多模态RAG幻觉
📌 工作参考价值（4 点）
- Agent 动态门控机制：基于内部注意力状态和变分自由能（VFE）的风险评估，可用于电商搜索/推荐Agent的决策路由，对高不确定性查询触发更严格的事实核查，避免复杂推理链中的错误传播。
- MCTS 因果推导修正：在推荐解释生成或对话式推荐中，可借鉴蒙特卡洛树搜索对候选推荐理由进行因果验证，减少编造理由（sycophancy），提升可信度。
- Logit 扰动惩罚逢迎：对于倾向生成迎合用户的虚假解释，通过在解码时施加针对性的logit惩罚，可迁移到对话Agent中抑制讨好性幻觉。
- 多智体协作流水线：Correction和Overseer Agent 的分工模式可复用到搜索推荐系统的后处理流程，例如事实核对Agent、格式化稳定Agent，增强最后输出可靠性。